Sharp Large Deviations for Gaussian Quadratic Forms with Applications

Under regularity assumptions, we establish a sharp large deviation principle for Hermitian quadratic forms of stationary Gaussian processes. Our result is similar to the well-known Bahadur-Rao theorem [2] on the sample mean. We also provide several examples of application such as the sharp large deviation properties of the Neyman-Pearson likelihood ratio test, of the sum of squares, of the Yule-Walker estimator of the parameter of a stable autoregressive Gaussian process, and finally of the empirical spectral repartition function. Résumé. Sous des hypothèses de régularité convenables, on établit un principe de grandes déviations précises pour des formes quadratiques de processus gaussiens stationnaires. Notre résultat est l’analogue du théorème de Bahadur-Rao [2] sur la moyenne empirique. Nous proposons également plusieurs exemples d’application comme les propriétés de grandes déviations précises pour le test du rapport de vraisemblance de Neyman-Pearson, pour la somme des carrés, pour l’estimateur de Yule-Walker du paramètre d’un processus gaussien autorégressif stable, et finalement pour la fonction de répartition spectrale empirique. AMS Subject Classification. 60F10, 11E25, 60G15, 47B35. Received January 30, 1998. Revised December 21, 1998 and November 3, 1999.